Long-Horizon-Terminal-Bench: Testing the Limits of Agents on Long-Horizon Terminal Tasks with Dense Reward-Based Grading
长周期终端基准:密集奖励检验长任务智能体极限
🧭 长程终端智能体评估 · 密集奖励
Tencent HY LLM Frontier · University of Maryland, College Park · University of Georgia · Indiana University · Lehigh University
提出长周期终端基准LHTB,细粒度子任务与密集奖励评估智能体长程能力,最强模型仅15.2% pass@1
📌 工作参考价值(4 点)
- 子任务分解与密集奖励:在构建多步自动化 Agent(如广告优化、商品文案测试)时,可借鉴将复杂任务拆解为可评分的子任务,设计中间奖励信号,支持逐步改进和部分成功。
- 长上下文与记忆管理:任务平均消耗9.9M tokens,提示在实际Agent中需要处理超长上下文,可引入检索增强(RAG)或层次化记忆,避免关键信息遗忘。
- 迭代调试与容错机制:论文发现Agent失败多因环境错误和调试不足,业务系统应加入自动重试、错误恢复和环境状态检查,提升长流程稳定性。
- 过程性评估:从只看最终结果转向细粒度过程评估,帮助定位Agent瓶颈,适合用于评估复杂推荐或运营Agent的中间决策质量。